Oracle Corp. представила облачный сервис Oracle Cloud Infrastructure Generative AI (OCI Generative AI). Как сообщает пресс-служба компании, многочисленные инновации позволяют крупным компаниям применять новейшие достижения в сфере генеративного искусственного интеллекта для обучения собственных языковых моделей. Сервис позиционируется, как альтернатива решениям Azure OpenAI компании Microsoft.

Сервис представляет собой решение, позволяющее бизнесам использовать большие языковые модели (LLM) вроде открытой Llama 2 или решения Cohere Inc., интегрируя их с существующими системами и данными клиентов. Благодаря этому последние смогут автоматизировать многие из процессов, выполнявшихся вручную. Сервис OCI Generative AI поддерживает более 100 языков и обеспечивает оптимизированное управление кластерами ускорителей.

В Oracle уверены, что предлагаемые LLM помогут в генерации текстов, составлении резюме материалов и выполнении прочих задач, причём их можно будет интегрировать с уже существующими разработками. Корпоративные пользователи смогут безопасно дообучать модель на своих данных — пока проводится бета-тестирование с опцией тонкой настройки для получения ответов с учётом контекста. Сервис интегрируется с пакетом облачных бизнес-приложений Oracle, включая Oracle Enterprise Resource Planning, Human Capital Management, Supply Chain Management и Customer Experiences.

Источник изображения: Growtika/unsplash.com

Также будут расширены возможности платформы OCI Data Science, где в следующем месяце появится бета-версия функции AI Quick Actions, обеспечивающей доступ к различным моделям с открытым кодом без необходимости программирования. Это позволит клиентам строить, тренировать и внедрять LLM на основе открытого кода, а также управлять ими. В целом, Oracle ориентирована на предоставление готовых ИИ-сервисов и функций, взаимодействующих друг с другом для помощи клиентам в решении бизнес-задач.

Oracle признаёт, что в сфере ИИ отстаёт от Microsoft, Google и Amazon, но возможность интеграции ИИ с ERP, HCM, SCM и CX-приложениями делает новые решения более привлекательными. При этом, по словам компании, у неё есть сразу несколько важных преимуществ перед конкурентами. Во-первых, производительная облачная СУБД, которой пользуются даже Microsoft и NVIDIA. Во-вторых, широкие инвестиции в облако, на что уходит до половины свободного денежного потока компании. В-третьих, решения Oracle для бизнеса обеспечивают уникальный опыт работы с ИИ, который не могут предложить конкуренты, сконцентрированные на PaaS и IaaS.

Запуск новой службы должен помочь Oracle привлечь корпоративных клиентов. Кроме того, компания прилагает усилия для того, чтобы стать ключевым инфраструктурным игроком, обеспечивая доступ к передовым ускорителям NVIDIA. В декабре сообщалось, что компания построит 100 новых облачных ЦОД по всему миру. OCI Generative AI уже доступен в нескольких регионах Oracle Cloud, но может быть развёрнут и локально в рамках Dedicated Region.

Генеральный директор корпорации Oracle Сафра Кац (Safra Catz), по сообщению ресурса Datacenter Dynamics, рассказала о планах по строительству в Израиле своего второго облачного дата-центра. Речь идёт о создании защищённой площадки, которая расположится глубоко под землёй.

Первый облачный ЦОД компании расположен в бункере площадью 14 тыс. м². Объект, построенный компанией Bynet Data Communications, занимает четыре этажа и находится на глубине 50 м — под 17-этажным зданием и пятью уровнями парковки в иерусалимском технологическом центре Хар-Хотзвим в Иерусалиме.

Новый израильский дата-центр Oracle будет размещён под землёй на глубине, эквивалентной 9-этажному зданию. Это позволит защитить его от возможных угроз. Подробности о проекте нового ЦОД не раскрываются. Отмечается лишь, что его открытие планируется «в скором времени». Кроме того, Кац сообщила, что Oracle удвоит свои инвестиции в Израиле.

Источник изображения: Oracle

Подземные дата-центры довольно распространены в Израиле. Такое размещение является необходимостью, призванной обеспечить безопасность и непрерывность обслуживания клиентов в условиях продолжающейся политической напряжённости в регионе. Облачные регионы в Израиле есть и у других ведущих провайдеров. Так, Google объявила о запуске такого региона в Тель-Авиве в конце 2022 года. В прошлом году свои площадки запустили Amazon Web Services (AWS) и Microsoft Azure.

Под конец года компания Oracle анонсировала запуск облачного региона в Вальпараисо, расположенного относительно недалеко от столицы Чили — Сантьяго. По информации Datacenter Dynamics, речь идёт уже о втором облачном регионе компании в Чили. Как заявили представители облачного провайдера, речь идёт о важном шаге, позволяющем клиентам получить быстрый доступ к сервисам Oracle Cloud Infrastructure (OCI).

В компании считают, что с открытием региона Oracle Cloud в новом месте повышается вклад облачного бизнеса Oracle в технологическое развитие Чили — организации, включая работающие в зарегулированных отраслях, от которых требуется хранение данных на территории страны, смогут ускорить переход в облачную среду. Это уже 48-й публичный облачный регион.

Источник изображения: Loïc Mermilliod/unsplash.com

Oracle активно наращивает своё присутствие по всему миру — буквально на днях её основатель и технический директор Ларри Эллисон (Larry Ellison) заявил, что компания уже строит сотню новых облачных ЦОД. Первый чилийский облачный регион компании расположен в Сантьяго, он был запущен в декабре 2020 года. 2023 год оказался весьма «урожайным» для Латинской Америки. Ранее Oracle запустила облачные регионы в Колумбии и Мексике. За пределами Чили компания теперь имеет здесь два региона в Бразилии, два в Мексике и один в Колумбии.

В ходе отчёта за II квартал 2024 финансового года основатель и технический директор Oracle Ларри Эллисон (Larry Ellison) выступил с важным заявлением. Как сообщает Datacenter Dynamics, по его словам, компания уже сейчас находится в процессе расширения 66 облачных дата-центров, а также занялась созданием 100 новых ЦОД.

По словам Эллисона, новые дата-центры приходится строить потому, что уже сегодня имеются соглашения стоимостью в миллиарды долларов на предоставление клиентам сервисов, которые инфраструктура компании в её нынешнем виде не может обеспечить — спрос на облака растёт беспрецедентными темпами.

В основном сегодня компания полагается на аренду площадей ЦОД у сторонних провайдеров вместо постройки собственных объектов. Похожей политики придерживаются и конкуренты вроде Google, Microsoft и AWS, но они тратят миллиарды и на собственную инфраструктуру. Как сообщила Oracle, ей по силам вовремя построить новые ЦОД и недорого эксплуатировать их, поскольку все решения компании «архитектурно идентичны», отличаются высокой степенью автоматизации и имеют идентичные RDMA-сети.

Источник изображения: Oracle

По словам главы Oracle Сафры Катц (Safra Catz), в мире имеются десятки облачных регионов компании различного назначения — от выделенных или суверенных до общедоступных. Продолжается строительство и новых регионов. Как заявил Эллисон, в ближайшие месяцы Oracle намерена запустить свои сервисы в 20 ЦОД Microsoft, всего на 2 тыс. стоек — в рамках сотрудничества с Microsoft Azure. По словам Катц, ежегодная выручка облачного сегмента сегодня составляет порядка $20 млрд, причём спрос на облачные сервисы продолжает расти.

В ходе выступления Эллисон заявил, что в числа новых ЦОД входят как регионы Oracle Cloud, так и, например, мощности в ЦОД Microsoft. Также он добавил, что семь государств заказали суверенные облачные регионы, включая Японию, Италию, Саудовскую Аравию, Бангладеш и Новую Зеландию. Кроме того, ИИ-стартап Илона Маска (Elon Musk) xAI стал крупным клиентом Oracle. Для обучения первой версии языковой модели Grok уже получено достаточно ускорителей NVIDIA, но новому детищу миллиардера нужно больше вычислительных мощностей.

Точно неизвестно, велик ли спрос на ИИ-сервисы Microsoft или у компании просто недостаточно вычислительных ресурсов, но IT-гиганту пришлось договариваться с Oracle об использовании ИИ-ускорителей в ЦОД последней. Как сообщает The Register, речь идёт о применении оборудования Oracle для «разгрузки» некоторых языковых моделей Microsoft, применяемых в Bing.

Во вторник компании анонсировали многолетнее соглашение. Как сообщают в Microsoft, одновременное использование компанией как Oracle Cloud, так и Microsoft Azure расширит возможности клиентов и ускорит работу с поисковыми сервисами. Сотрудничество связано с тем, что Microsoft надо всё больше вычислительных ресурсов для заявляемого «взрывного роста» её ИИ-сервисов, а у Oracle как раз имеются десятки тысяч ускорителей NVIDIA A100 и H100 для аренды.

Источник изображения: cliff1126/pixabay.com

Служба Oracle Interconnect обеспечивает взаимодействие с облаком Microsoft Azure, что позволяет работающим в Azure сервисам взаимодействовать с ресурсами Oracle Cloud Infrastructure (OCI). Раньше такое решение уже применялось, но для сторонних клиентов двух компаний. Теперь Microsoft применяет Interconnect наряду с Azure Kubernetes Service для организации работы ИИ-узлов в облаке Oracle на благо Bing Chat.

Microsoft ещё в феврале интегрировала чат-бота Bing Chat в свой поисковый сервис и свой браузер. Не так давно добавилась и возможность, например, генерировать изображения прямо в процессе диалога. При этом использование больших языковых моделей требует огромного числа ускорителей для их тренировки, но для инференса необходимы ещё большие вычислительные мощности.

Фото: Microsoft

В Oracle утверждают, что облачные суперкластеры компании, которые, вероятно, будет использовать Microsoft, могут масштабироваться до 32 768 ИИ-ускорителей A100 или 16 384 ускорителей H100 с использованием RDMA-сети с ультранизкой задержкой. Дополнением является хранилище петабайтного класса. В самой Microsoft избегают говорить, сколько именно узлов Oracle нужно компании, причём, похоже, не намерены делать этого и в будущем.

Конкуренты сотрудничают уже не в первый раз. В сентябре Oracle сообщала о намерении размещать системы с базами данных в ЦОД Azure. Более того, ещё в мае 2023 года Microsoft и Oracle изучали возможность аренды ИИ-серверов друг у друга на случай, если у них вдруг не будет хватать вычислительных мощностей для крупных облачных клиентов. Ранее ходили слухи, что похожие соглашения Microsoft подписала с CoreWeave и Lambda Labs, к которым NVIDIA более благосклонна в вопросах поставки ускорителей. Попутно Microsoft ищет более экономичные альтернативы языковым моделям OpenAI.

Несмотря на нехватку на рынке ускорителей NVIDIA H100 ещё один провайдер представил продукты на их основе. Облачная служба Oracle Cloud Infrastructure (OCI) объявила о доступности bare-metal инстансов OCI Compute на базе NVIDIA H100, предназначенных для крупномасштабных приложений искусственного интеллекта (ИИ) и высокопроизводительных вычислений (HPC).

Инстанс OCI Compute BM.GPU.H100.8 содержит восемь ускорителей H100, каждый из которых имеет 80 Гбайт памяти HBM2, 16 локальных накопителей NVMe ёмкостью 3,84 Тбайт каждый, два 56-ядерных процессора Intel Xeon Sapphire Rapids (2,0/3,8 ГГц), 2 Тбайт памяти DDR5, а также восемь 400G-адаптеров.

Также в этом году компании смогут воспользоваться OCI Supercluster для создания кластеров, включающих до 50 тыс. ускорителей H100. Эта опция поначалу будет доступна в регионах Лондона и Чикаго, а в будущем число регионов с её поддержкой будет увеличено. При этом в OCI доступен и сервис NVIDIA DGX Cloud, который также включает кластеры на базе H100.

Изображение: Oracle

Oracle также сообщила, что в начале 2024 года представит инстансы с новейшими ускорителями NVIDIA L40S. Например, инстанс BM.L40S.4 предложит четыре L40S с двумя 56-ядерными процессорами Intel Xeon, 1 Тбайт RAM, 15,36 Тбайт NVMe-хранилища и сетевое подключение 400 Гбит/с.

Oracle представила инстансы Ampere A2 следующего поколения на базе 192-ядерных Arm-процессоро AmpereOne, которые станут доступны для клиентов компании позднее в этом году. Как сообщает Oracle, новые инстансы обеспечивают на 44 % лучшее соотношение цены и производительности по сравнению с предложениями на архитектуре x86 и идеально подходят для ИИ-инференса, работы с базами данных, веб-сервисами, рабочих нагрузок транскодирования мультимедиа и поддержки среды выполнения для таких языков, как GO и Java.

Инстансы OCI Ampere A2 предлагают до 320 ядер в случае bare metal и до 156 ядер в рамках одной виртуальной машины. Обладая большим объёмом приватного кеша, стабильной рабочей частотой, однопоточными ядрами и новыми функциями управления памятью, инстансы нового поколения позволяют обеспечить ещё более предсказуемую производительность за счёт снижения влияния внешних помех, как происходит в случае SMT, и одновременно предлагают безопасную микроархитектуру для многопользовательских облачных сред.

Источник изображений: Ampere

«То, что происходит с OCI и Ampere, является отражением значительных перемен, происходящих в нашей отрасли, — сказала гендиректор Ampere Рене Джеймс (Renee James). — Времена использования мощности в качестве показателя производительности переходят в эру высокопроизводительных вычислений с низким энергопотреблением. Такие клиенты, как 8X8 и другие, признают, что существует необходимость снизить затраты на инфраструктуру и в то же время сократить выбросы углекислого газа без ущерба для производительности. В нашу эру компьютеров с ИИ новая сила — это меньшая мощность».

Клэй Магоуирк (Clay Magouyrk), исполнительный вице-президент Oracle Cloud Infrastructure Development, сообщил, что в связи с быстрым ростом Oracle подошла к пределам доступной мощности, и для дальнейшего масштабирования облака ей необходим рост эффективности в дополнение к производительности: «Вот почему мы используем Ampere для всего: от базы данных Oracle до приложений Fusion, а теперь и для всех наших сервисов OCI. С развитием ИИ-обработки этот сдвиг в вычислениях стал ещё более важным. Ampere — это решение OCI для устойчивого облака».

СУБД Oracle Database полностью поддерживается процессорами Ampere. Кроме того, все сервисы OCI, число которых исчисляется сотнями, теперь тоже работают на CPU Ampere. Конечные клиенты могут перенести все свои рабочие нагрузки на платформу Ampere, в том числе задачи инференса, которые поддерживаются библиотеками AI Optimizer от Ampere.

Oracle сделала ряд важных анонсов в ходе конференции Oracle CloudWorld 2023, прошедшей в Лас-Вегасе на этой неделе, сообщил ресурс Data Center Knowledge. В частности, были представлены новые функции и платформы, которые будут способствовать развитию потенциала генеративного ИИ. В их числе:

• приложения для маркетинга, продаж и обслуживания для набора облачных инструментов Oracle Fusion Cloud Customer Experience для автоматизации создания управляемого контента, рекомендаций по продуктам и аналитики;
• новые ИИ-возможности платформы Oracle Analytics Cloud, предназначенные для оптимизации предоставления услуг клиентам, повышения производительности и помощи организациям в улучшении предоставляемых услуг и повышении качества обслуживания клиентов;
• платформа Fusion Data Intelligence, которая предоставит расширенные данные и аналитику клиентам Oracle Cloud Infrastructure (OCI), позволяя им комбинировать бизнес-данные, аналитику, ИИ-модели и интеллектуальные приложения.

Источник изображения: Oracle

Oracle также представила функции для повышения эффективности труда IT-специалистов и разработчиков:

• обновления облачной службы управления и администрирования Oracle Access Governance, которые позволят IT-командам лучше назначать, отслеживать и управлять доступом пользователей;
• новые возможности разработки приложений, которые позволят разработчикам быстро создавать и развёртывать ПО;
• новые сервисы, которые помогут финансовым учреждениям повысить прозрачность и улучшить прогнозирование, а также позволят улучшить контроль ликвидности.

Также были представлены новые решения в области здравоохранения, в том числе:

• Oracle Clinical Digital Assistant — инструмент генеративного ИИ, упрощающий административные задачи, обеспечивающий ведение заметок во время сеанса и предлагающий контекстно-зависимые действия, такие как заказ лекарств или планирование последующих посещений;
• новые и усовершенствованные облачные предложения, которые позволят компаниям автоматизировать планирование ресурсов, снизить стоимость расходных материалов благодаря использованию групповых закупок, а также решать проблемы цепочки поставок;
• инструмент планирования и оптимизации рабочей силы для консолидации данных электронных медицинских записей на единой платформе.

В ходе конференция Oracle объявила о заключении новых соглашений о сотрудничестве, а также о продлении и расширении существующих. В частности, благодаря расширению сотрудничества Oracle и Red Hat клиентам будет предоставлен более широкий выбор при развёртывании приложений в OCI. Было объявлено о поддержке Red Hat Enterprise Linux для рабочих нагрузок OCI и Oracle VMware Cloud. Наконец, был анонсирован целый ряд обновлений, касающихся MySQL HeatWave Lakehouse.

Несмотря на давнее соперничество, компании Oracle и Microsoft заключили необычное соглашение. Первая разместит своё аппаратное обеспечение Exadata, применяемое в Oracle Cloud, в дата-центрах Microsoft. Результатом должно стать сокращение времени задержки при передаче данных между сервисами и инфраструктурой IT-гигантов.

Сотрудничество будет организовано в виде сервиса OracleDatabase@Azure. Некоторые транснациональные корпорации, включая Vodafone и Pepsi, уже начали пользоваться сервисом, а другие приступят к его эксплуатации в начале следующего года в облачных регионах Azure в США, Великобритании и Германии. Со временем Oracle пообещала обеспечить и глобальный доступ.

Первый шаг к более тесному сотрудничеству был сделан в прошлом году, когда пользователи Azure получили возможность напрямую работать с СУБД в облаке Oracle Cloud Infrastructure (OCI). Как сообщают в Oracle и Microsoft, углубление взаимодействия особенно повлияет на развитие ИИ, поскольку данные для обучения моделей можно хранить у Oracle, а обрабатывать в Azure, причём с низким уровнем задержки. Кроме того, появление нового сервиса будет в целом способствовать переходу клиентов Oracle в облако.

Фото: Microsoft

Интеграция сервисов двух компаний также означает, что клиенты смогут приобрести доступ к Oracle Database@Azure на площадке Azure Marketplace и использовать средства с баланса Azure для оплаты расходов. При этом оператором сервиса будет выступать именно Oracle. Возможно, появятся и другие совместные проекты двух компаний. В мае сообщалось об их намерении совместно использовать оборудование из-за дефицита ИИ-ускорителей. Кроме того, совместные проекты двух компаний помогут им противостоять доминированию AWS на облачном рынке.

Компания Oracle отрапортовала о работе в I четверти 2024 финансового года, которая была закрыта 31 августа. Общая выручка поставщика ПО и облачных сервисов за трёхмесячный период составила $12,45 млрд, что примерно на 9 % больше результата годичной давности.

По итогам завершённого финансового квартала компания сообщила о чистой прибыли в размере $2,42 млрд по сравнению с $1,55 млрд годом ранее. Таким образом, зафиксирован рост на уровне 56 %. Прибыль в пересчёте на одну ценную бумагу составила $0,86 против $0,56 в I квартале 2023 финансового года.

Источник изображения: Oracle

Квартальная выручка в облачном сегменте (сервисы IaaS и SaaS) достигла $4,6 млрд, поднявшись практически на треть — на 30 % — по сравнению с предыдущим годом. В сегменте IaaS зафиксирован результат в $1,5 млрд — плюс 66 % в годовом исчислении. Услуги SaaS принесли $3,1 млрд, что соответствует прибавке около 17 % год к году.

В целом, облачные сервисы и лицензионная поддержка обеспечили выручку в размере $9,5 млрд, что на 13 % больше прошлогоднего результата. На лицензирование облачных и локальных продуктов пришлось $809 млн — это на 10 % меньше по отношению к результату годичной давности. Выручка от аппаратных решений сократилась на 6 % — до $714 млн. Ещё около $1,38 млрд обеспечили различные сервисы, что соответствует прибавке на 2 % год к году.

«Выручка Oracle Cloud Infrastructure поднялась на 66% в I квартале, что намного быстрее, чем у наших конкурентов. Доход от облачных услуг Oracle вкупе с лицензионной поддержкой теперь составляет 77 % от общей выручки корпорации», — отметила генеральный директор Oracle Сафра Кац.